Appearance
Measuring algorithmically infused societies
Summary
Problem: 社会科学肩负研究人类社会的历史责任，但现有社会理论和测量模型大多并非为算法深度渗透的社会而设计。算法注入社会（algorithmically infused societies）中，算法与人类行为深度纠缠，导致测量质量不足、误测后果复杂、现有社会理论存在局限三大挑战。 Approach: 本文采用理论分析视角，系统梳理算法注入社会对社会科学测量带来的挑战，分析其根源，并提出面向未来的研究路线图，包括发展可信测量模型、缓解误测危害、构建整合且经验驱动的社会理论。 Finding: 算法注入社会具有动态性、异质性、互联性和不透明性特征，使测量面临独特困难；测量本身可能改变被测量对象（Goodhart定律、表演性）；现有社会理论未考虑算法对现象的塑造作用；需要重新思考测量什么、如何测量以及测量的后果。 Significance: 本文为计算社会科学提供了测量算法注入社会的系统性框架和最佳实践指南，呼吁学界重新审视数据与理论的关系，推动建立可信、可审计、公正的测量模型，对计算社会科学的发展方向具有重要指导意义。
Theoretical Framework
- Theoretical tradition: 本文属于计算社会科学（computational social science）与科学技术研究（science and technology studies）的交叉视角，同时借鉴测量理论（psychometrics）和调查方法论。
- Prior theories built upon: Goodhart定律（测量存在会改变个体行为）、表演性理论（performativity thesis，Healy提出，理论有潜力“重新格式化并重组模型所声称描述的现象”）、认知失调理论、平衡理论、同质性理论（homophily）、人类分类理论。
- Causal mechanism: 算法通过塑造信息消费、社交互动、决策实践等影响社会过程；测量模型将理论构念与可观测数据相连，但算法既塑造数据生成过程（“算法下收集的数据”），又可能因测量本身改变被测量行为，形成反馈回路，导致测量失效或产生危害。
- Key assumptions: 社会现象可以通过测量模型与可观测数据建立联系；算法与人类行为深度纠缠且相互塑造；测量不仅是描述性工具，还会反作用于被测量对象；现有社会理论不足以解释算法注入社会中的现象。
- Theoretical move: 本文挑战现有社会理论在算法注入社会中的适用性，呼吁发展整合算法因素的新理论，并提出将数据与测量纳入理论建构的新方法论，属于对现有理论框架的批判性延伸与重构。
- Scope conditions: 本文聚焦于算法深度渗透的社会（如平台社会），其论点适用于算法影响显著的社会、经济、政治过程；作者承认不同情境下算法影响程度不同，测量后果具有情境依赖性。
Research Design
本文为理论性/观点性论文（Perspective），非实证研究。研究设计为概念分析框架的构建：首先识别算法注入社会的核心特征（动态性、异质性、互联性、不透明性），然后系统分析测量面临的三大挑战（测量质量不足、误测后果、理论局限），最后提出应对路线图和最佳实践。分析单元为“算法注入社会”这一宏观社会形态及其测量实践。
Data & Sample
N/A（本文为理论性论文，未使用实证数据）
Analytical Strategy
N/A（本文未使用统计或计算分析模型；采用概念论证和文献综合的方法，引用跨学科文献支持论点）
Results & Findings
本文的主要“发现”为概念性论点，而非实证结果：
测量质量不足：算法注入社会中，理论构念往往不稳定，且受测量行为本身影响；数据多在“算法之下”收集，算法塑造了计算社会科学家赖以测量的数据，威胁研究效度。机器学习模型常为“黑箱”，不明确假设，导致理论构念与其操作化之间的错配。基准数据集常存在规格不足问题，未能捕捉构念的不同维度。
误测的复杂后果：测量可能强化对主观现象的客观性感知，导致自我膨胀或削弱团结；测量影响政策制定和资源分配，进而优化行为；测量与理论构念不匹配（构念效度问题）在高风险场景（如执法、信贷）中可能复制、掩盖、转移甚至加剧不平等。测量规模大、感知客观性高，使危害更令人担忧。
现有社会理论的局限：现有理论（如同质性理论）未考虑算法放大或抑制效应；算法与人类行为的融合产生反馈回路，需要系统层面的整合理论；纯数据驱动研究存在机会主义问题，纯理论驱动研究存在“理论紧身衣”问题，需要融合两者。
应对路线：发展可信测量需要三角验证数据（自我报告、观测数据、实验数据）、制定文档化指南和质量标准；缓解误测危害需要审计测量及其底层数据和模型，确保透明性和可解释性，同时平衡隐私关切；构建整合理论需要将理论驱动与数据驱动方法融合。
Limitations
作者承认以下局限和未决问题：测量后果难以预先预料，尤其是黑箱模型同时适应和改变环境时；透明性与隐私之间存在张力；审计不平等需要人口统计信息，但此类信息常缺失；如何收集和共享三角验证数据集仍悬而未决，需平衡隐私保护、对弱势群体的潜在危害与研究收益；如何将其他领域的最佳实践适配到短暂、不断变化且算法混淆的环境中仍是开放问题；哪些利益相关者应决定算法何时及如何部署或修改也是未决问题。
Key Contributions
- 系统识别并阐述了算法注入社会中测量社会现象的三大核心挑战：测量质量不足、误测后果复杂、现有社会理论局限
- 提出算法注入社会的四个关键特征——动态性、异质性、互联性和不透明性——作为理解测量困难的概念基础
- 论证了测量不仅是描述性工具，还会通过Goodhart定律和表演性机制反作用于被测量对象，形成反馈回路
- 提出发展可信、可审计、公正的测量模型的具体路径，包括数据三角验证、文档化指南和质量标准
- 呼吁计算社会科学重新思考数据与理论的关系，推动整合理论驱动与数据驱动方法
- 提供了五条最佳实践指南（Box 2），为计算社会科学社区测量算法注入社会提供操作性建议
Key Claims
"It has been the historic responsibility of the social sciences to investigate human societies. Fulfilling this responsibility requires social theories, measurement models and social data. Most existing theories and measurement models in the social sciences were not developed with the deep societal reach of algorithms in mind." (Abstract)
"The emergence of 'algorithmically infused societies'—societies whose very fabric is co-shaped by algorithmic and human behaviour—raises three key challenges: the insufficient quality of measurements, the complex consequences of (mis)measurements, and the limits of existing social theories." (Abstract)
"Algorithmically infused societies are thus a fertile ground for what is sometimes known as Goodhart's law—the conflation of 'is' and 'ought', where the mere existence of measurements can alter the behaviour of individuals." (Section: The challenges of measuring algorithmically infused societies)
"The performativity thesis conjectures that theories have the potential to 'reformat and reorganize the phenomena [that] models purport to describe'." (Section: The challenges of measuring algorithmically infused societies)
"We argue that computational social scientists should rethink what aspects of algorithmically infused societies should be measured, how they should be measured, and the consequences of doing so." (Abstract)